בן פיבי וימין ז"ל, נולד בשנת 1943 בעיר קזבלנקה שבמרוקו. יוסף, שחבריו הרבים כינוהו בחיבה ג'וג'ו, סיים את חוק לימודיו בבית-הספר המקצועי "אורט" בקזבלנקה כחשמלאי רכב. בשנת 1965 עלה יוסף לארץ והשתקע בבאר-שבע. בתחילה הוא עבד כחשמלאי רכב במוסכי חברת "סולל בונה" בעיר, אך עד מהרה פתח לו מוסך משל עצמו ומצא את פרנסתו בכבוד.

יוסף גויס לצה"ל בסוף נובמבר 1967, עבר טירונות, וכעבור שלושה חודשים הועבר לשירות מילואים.

בשירות המילואים השתלם יוסף בקורסים שונים, ולבסוף שובץ כרגם מרגמות כבדות. בתקופות ששירת במילואים נטל יוסף חלק במלחמת יום הכיפורים, והוענקו לו אות המערכה ואות השירות המבצעי.

ביום כ"ה באב תשמ"ד (23.8.1984), נפל רב-טוראי יוסף בעת מילוי תפקידו והובא למנוחת עולמים בבית-הקברות הצבאי בבאר-שבע. הוא השאיר אחריו אשה, שתי בנות ובן, וארבעה אחים.

במכתב התנחומים למשפחה השכולה, כתב מפקדו: "יוסף כהן ז"ל שירת כרגם במחלקת המרגמות ביחידה מאז הקמתה בשנת 1967. אנו, חבריו ומפקדיו ביחידה, נזכור את יוסי כהן ז"ל כחבר וכשותף אמיתי לדרך אותה עשינו יחד במילואים. השירות במילואים לא היה קל עבורו. הניתוק מהמשפחה ומהמוסך הפכו את נטל המילואים לכבד יותר, אך ליוסי כהן ז"ל הייתה דרך משלו לתת, לסייע ולהקל על חבריו בשירות המשותף. המוסך שלו בבאר-שבע, כמו גם יכולתו לעזור לכל מי שנתקע עם רכבו באיזור, היו לשם דבר ביחידה".